Компания Enfabrica анонсировала технологию EMFASYS, которая объединяет Ethernet RDMA и CXL для создания пулов памяти, предназначенных для работы с серверными ИИ-стойками на базе GPU. Решение позволяет снизить нагрузку на HBM-память ИИ-ускорителей и тем самым повысить эффективность работы всей системы в целом.

Enfabrica основана в 2019 году. Стартап предлагает CXL-платформу ACF на базе ASIC собственной разработки, которая позволяет напрямую подключать друг к другу любую комбинацию GPU, CPU, DDR5 CXL и SSD, а также предоставляет 800GbE-интерконнект. Компания создала чип ACF SuperNIC (ACF-S) для построения высокоскоростного интерконнекта в составе кластеров ИИ на основе GPU.

В рамках платформы EMFASYS специализированный пул памяти подключается к GPU-серверам через чип-коммутатор ACF-S с пропускной способностью 3,2 Тбит/с, который объединяет PCIe/CXL и Ethernet. Поддерживаются интерфейсы 100/400/800GbE, 32 сетевых порта и 160 линий PCIe. Могут быть задействованы до 144 линий CXL 2.0, что позволяет использовать до 18 Тбайт памяти DDR5 (в перспективе — до 28 Тбайт). Вместо копирования и перемещения данных между несколькими чипами на плате Enfabrica использует один SuperNIC, который позволяет представлять память в качестве целевого RDMA-устройства для приложений ИИ.

Источник изображений: Enfabrica

Высокая пропускная способность памяти достигается за счёт распределения операций более чем по 18 каналам на систему. Время доступа при чтении измеряется в микросекундах. Программный стек на базе InfiniBand Verbs обеспечивает массовую параллельную передачу данных с агрегированной полосой пропускания между GPU-серверами и памятью DRAM через группы сетевых портов 400/800GbE.

Enfabrica отмечает, что рабочие нагрузки генеративного, агентного и рассуждающего ИИ растут экспоненциально. Во многих случаях таким приложениям требуется в 10–100 раз больше вычислительной мощности на запрос, чем большим языковым моделям (LLM) предыдущего поколения. Если память HBM постоянно загружена, дорогостоящие ускорители простаивают. Технология EMFASYS позволяет решить проблему посредством расширения памяти: в этом случае ресурсы GPU используются более полно, а заявленная экономия достигает 50 % в расчёте на токен на одного пользователя.

Компания Micron Technology анонсировала SSD серий 6600 ION, 7600 и 9650 для дата-центров и систем корпоративного класса. Новинки, подходящие в том числе для ресурсоёмких нагрузок ИИ, предлагаются в различных форм-факторах — U.2, E1.S и E3.S.

Изделия Micron 6600 ION оптимизированы для сред, в которых постоянно генерируются и обрабатываются большие массивы данных: это может быть, например, инфраструктура интернета вещей (IoT). Устройства выполнены на основе флеш-чипов G9 QLC NAND, а для обмена данными задействован интерфейс PCIe 5.0 x4 (NVMe 2.0d). Доступны исполнения E3.S 1T и U.2.

В семейство Micron 6600 ION входят модификации вместимостью 30,72, 61,44 и 122,88 Тбайт. В I половине 2026 года появится вариант ёмкостью 245 Тбайт. Скорость последовательного чтения информации достигает 14 000 Мбайт/с, скорость последовательной записи — 3000 Мбайт/с. Показатель IOPS при произвольном чтении блоков данных по 4 Кбайт составляет до 2 млн, при произвольной записи — до 100 тыс. Показатель надёжности достигает 1 DWPD (полная перезапись в сутки) при последовательном доступе и от 0,075 до 0,3 DWPD при случайном доступе.

Источник изображений: Micron

Накопители серии Micron 7600, в свою очередь, подходят для задач ИИ. Устройства выпускаются в форматах U.2 (15 мм), E1.S (9,5 и 15 мм) и E3.S 1T (15 мм). Применены чипы флеш-памяти G9 TLC NAND и интерфейс PCIe 5.0 x4 (NVMe 2.0d). Скорость последовательных чтения и записи — до 12 000 и 7000 Мбайт/с соответственно.

Покупатели смогут выбирать между модификациями Micron 7600 Pro и Micron 7600 Max. В первом случае вместимость варьируется от 1,92 до 15,36 Тбайт, а надёжность находится на уровне 1 DWPD (на протяжении пяти лет). Величина IOPS — до 2,1 млн при чтении и до 400 тыс. при записи. В случае Micron 7600 Max ёмкость составляет от 1,6 до 12,8 Тбайт, показатель DWPD равен 3. Значение IOPS — до 2,1 млн при произвольном чтении и до 675 тыс. при произвольной записи. Micron заявляет о задержке менее 1 мс при 99,9999 % операций.

Изделия Micron 9650 специально разработаны для обучения ИИ-моделей, инференса в режиме реального времени и других задач, при которых критическое значение имеют производительность и стабильная пропускная способность. Устройства в форм-факторах E3.S и E1.S оснащены интерфейсом PCIe 6.0 х4 (NVMe 2.0). Используются чипы флеш-памяти G9 TLC NAND. Максимальная скорость последовательного чтения заявлена на уровне 28 000 Мбайт/с, последовательной записи — 14 000 Мбайт/с. Устройства E1.S допускают применение жидкостного охлаждения.

Серия включает версии Micron 9650 Pro (1 DWPD) и Micron 9650 Max (3 DWPD) вместимостью 7,68–30,72 и 6,4–25,6 Тбайт соответственно. Показатель IOPS при произвольном чтении достигает 5,5 млн, при произвольной записи — 1,1 млн у Pro и 1,5 млн у Max.

Максимальное энергопотребление у всех представленных изделий находится на уровне 25 Вт. Средняя наработка на отказ (MTTF) — 2,5 млн часов при температуре до +50 °C. Пробные поставки устройств Micron 7600 и Micron 9650 уже начались, а SSD серии Micron 6600 ION выйдут позднее в текущем квартале. 

Компания MaxLinear анонсировала ускоритель обработки данных Panther V, предназначенный для использования в дата-центрах и инфраструктурах гиперскейлеров. Решение берёт на себя выполнение таких ресурсоёмких операций с данными, как сжатие, дедупликация, шифрование и проверка в реальном времени. В результате, снижается нагрузка на CPU, уменьшаются задержки, повышаются общая производительность и энергоэффективность, а также сокращаются капитальные и эксплуатационные затраты.

Новинка выполнена на той же архитектуре, которая лежит в основе DPU Panther III. При этом вместо интерфейса PCIe 4.0 используется PCIe 5.0 (x16). Пропускная способность увеличена более чем в два раза — с 200 до 450 Гбит/с. Устройство оптимизировано для НРС-задач, гипермасштабируемых и гиперконвергентных архитектур, рабочих нагрузок ИИ и машинного обучения.

Источник изображения: MaxLinear

Упомянут механизм дедупликации структурированных данных MaxHash вплоть до 15:1 (в сочетании с алгоритмами глубокого сжатия). Это значительно повышает эффективную вместимость и увеличивает срок службы NVMe SSD. Реализованы различные средства обеспечения безопасности, включая сквозную защиту данных, ЕСС и пр.

Говорится о развитой программной экосистеме: это SDK с унифицированными API, а также интеллектуальный балансировщик нагрузки для бесшовной интеграции в средах Linux и FreeBSD. Возможно объединение в системе нескольких ускорителей Panther V с суммарной пропускной способностью свыше 3,2 Тбит/с.

Компания Kioxia анонсировала первый в отрасли твердотельный накопитель NVMe, способный вместить 245,76 Тбайт информации. Устройство, вошедшее в семейство LC9, рассчитано прежде всего на рабочие нагрузки, связанные с генеративным ИИ.

SSD серии LC9 дебютировали в марте нынешнего года. Их основой служат чипы флеш-памяти BiCS FLASH QLC 3D с технологией CBA (CMOS directly Bonded to Array). Задействован неназванный проприетарный контроллер, совместимый с NVMe 2.0. Для обмена данными используется интерфейс PCIe 5.0 x4 (с поддержкой двух портов).

Изначально в семействе LC9 были представлены решения в формате U.2 вместимостью до 122,88 Тбайт. Теперь максимальная ёмкость таких устройств увеличилась в два раза — до 245,76 Тбайт. Кроме того, в серии LC9 появились изделия типоразмера EDSFF E3.L на 245,76 Тбайт, а также EDSFF E3.S на 122,88 Тбайт.

Источник изображения: Kioxia

Скорость последовательного чтения достигает 12 Гбайт/с, скорость последовательной записи — 3 Гбайт/с. Это не самые высокие показатели для SSD корпоративного класса с интерфейсом PCIe 5.0, но в данном случае Kioxia пришлось пойти на компромисс с целью достижения рекордной вместимости. Величина IOPS на операциях произвольного чтения составляет до 1,3 млн IOPS, на операциях произвольной записи — до 50 тыс. Накопители рассчитаны на 0,3 полных перезаписи в сутки (показатель DWPD).

SSD поддерживают ряд функций для повышения надёжности и обеспечения целостности данных. Это средства защиты от внезапного отключения питания (PLP), технология FDP (Flexible Data Placement) для повышения долговечности, инструмент управления ошибками на основе контроля четности и пр. Реализованы шифрование AES-256 и алгоритмы постквантовой криптографии, устойчивые к атакам будущих квантовых компьютеров.

Стартап Speedata, занимающийся разработкой специализированных чипов для ускорения аналитики данных, провёл раунд финансирования Series B, в ходе которого на развитие получено $44 млн. В общей сложности на сегодняшний день компания привлекла $114 млн.

Speedata разработала аналитический сопроцессор (Analytics Processing Unit, APU) под названием Callisto. Утверждается, что в случае рабочих нагрузок Apache Spark это изделие способно обеспечить 100-кратный прирост производительности по сравнению с CPU. Если сравнивать с GPU, то разработчик обещает сокращение капитальных затрат на 91 %, экономию пространства на 94 % и уменьшение потребления электроэнергии на 86 %.

Особенность Callisto — использование относительно новой архитектуры CGRA, в разработке которой принимали участие основатели Speedata. Подобно программируемым пользователем вентильным матрицам (FPGA) решения с архитектурой GCRA можно настроить на выполнение определённых задач с максимальной эффективностью. При этом в случае Callisto устранены ограничения с обработкой логики ветвления, с которыми могут сталкиваться GPU, говорит компания. Кроме того, Callisto содержит ряд других оптимизаций для повышения производительности при аналитике данных.

Источник изображения: Speedata

Чип Callisto является основой серверного ускорителя C200. Это решение выполнено в виде карты расширения с интерфейсом PCIe 5.0 х16. Новинка обеспечивает ускорение операций, связанных с аналитикой данных на аппаратном уровне, снижая нагрузку на CPU. Speedata обещает «революционное соотношение цены и производительности», а также возможность обработки огромных массивов информации в рекордно короткие сроки. В систему типоразмера 2U могут быть установлены две карты C200.

В качестве примера возможностей новинки компания Speedata приводит обработку некой рабочей нагрузки в фармацевтической области. С использованием APU задача была выполнена за 19 минут по сравнению с 90 часами при применении неспециализированного процессора. Таким образом, обеспечено ускорение в 280 раз.

В раунде финансирования Series B приняли участие Walden Catalyst Ventures, 83North, Koch Disruptive Technologies, Pitango First и Viola Ventures, а также ряд стратегических инвесторов, в число которых вошли генеральный директор Intel Лип-Бу Тан (Lip-Bu Tan) и соучредитель Mellanox Technologies Эяль Вальдман (Eyal Waldman). Деньги будут направлены на дальнейшее развитие технологии.

Компания Xsight Labs объявила о доступности программно-определяемых «систем на чипе» (SoC) серии E1, предназначенных для создания DPU. Такие изделия могут применяться в облачных и периферийных дата-центрах, рассчитанных в том числе на ИИ-нагрузки.

О подготовке решений E1 сообщалось в конце прошлого года. Для чипа предусмотрены варианты E1-32 и E1-64, конфигурация которых включает соответственно 32 и 64 ядра Arm Neoverse N2. Младшая версия имеет 16 Мбайт кеша и использует конфигурацию памяти 2 × DDR5-5200, старшая — 32 Мбайт и 4 × DDR5-5200. Доступны 40 (32+8) линий PCIe 5.0. Сетевые порты могут иметь конфигурацию 2 × 400GbE, 4 × 200GbE и 8 × 100/50/25/10GbE.

Источник изображений: Xsight Labs

На базе E1 могут создаваться карты расширения различной конфигурации. Благодаря наличию 32 программируемых линий PCIe 5.0 и восьми двухрежимных контроллеров 16 линий могут быть выделены для хост-подключения, а другие 16 линий — для подключения внешних устройств. В качестве примера приводится конфигурация с двумя портами 400GbE или возможностью подсоединения четырёх SSD с интерфейсом PCIe 5.0 х4 каждый.

Кроме того, компания Xsight Labs представила 1U-систему E1-Server в форм-факторе на основе E1. Эта платформа подходит для решения таких задач, как CDN, веб-сервер, VPN, шлюз для защиты от DDoS-атак и пр. Устройство располагает четырьмя слотами для модулей памяти DDR5-5200 суммарным объёмом до 512 Гбайт и коннекторомв для SSD формата M.2. Возможна установка двух карт расширения типоразмера FHFL/FHHL/HHHL. Диапазон рабочих температур — от 0 до +35 °C.

Компания Kioxia анонсировала SSD семейства CD9P, предназначенные для использования в дата-центрах. Накопители будут предлагаться в двух вариантах исполнения — U.2 толщиной 15 мм и EDSFF E3.S. В первом случае вместимость достигает 61,44 Тбайт, во втором — 30,72 Тбайт.

В основу новинок положены чипы флеш-памяти 3D BiCS FLASH TLC 8-го поколения. Применена технология CBA (CMOS direct Bonded to Array), которая, как утверждает Kioxia, значительно повышает энергоэффективность, производительность и плотность хранения данных по сравнению с решениями предыдущего поколения, одновременно удваивая максимально возможную ёмкость SSD.

Для подключения служит интерфейс PCIe 5.0 (NVMe 2.0, NVMe-MI 1.2c). Заявленная скорость последовательного чтения информации достигает 14,8 Гбайт/с, скорость последовательной записи — 7 Гбайт/с. Показатель IOPS при произвольном чтении (4 КиБ / QD512) составляет до 2,6 млн, при произвольной записи (4 КиБ / QD32) — до 750 тыс. Накопители способны выдерживать до 1 полной перезаписи в сутки (1 DWPD) в варианте для интенсивного чтении и до трёх перезаписей в исполнении для смешанных нагрузок (3 DWPD).

Источник изображения: Kioxia

SSD, как отмечается, поддерживают стандарт CNSA 2.0 (Commercial National Security Algorithm Suite) — это набор криптографических алгоритмов, обнародованный Агентством национальной безопасности США (NSA) в качестве замены алгоритмам криптографии NSA Suite B. Таким образом, накопители поддерживают постквантовую криптографию, устойчивую к атакам будущих квантовых компьютеров.

Компания HighPoint анонсировала карту расширения Rocket 7604A RAID AIC: это, как утверждается, первый в мире RAID-адаптер с возможностью установку четырёх SSD типоразмера М.2 с интерфейсом PCIe 5.0. Устройство предназначено для использования в высокопроизводительных рабочих станциях, системах для периферийных вычислений и пр.

Новинка имеет форм-фактор FHHL с длиной 167 мм. Задействован PCIe-коммутатор Broadcom PEX89048 с поддержкой 48 линий PCIe 5.0. Предусмотрены четыре слота для накопителей M.2 2242/2260/2280 (PCIe 5.0 x4 для каждого из разъёмов). Суммарная вместимость установленных SSD может достигать 32 Тбайт (4 × 8 Тбайт) с быстродействием до 56 Гбайт/с и до 12 млн IOPS.

Встроенный RAID-контроллер позволяет формировать массивы RAID 0/1/10. Заявлена совместимость с платформами Windows 10/11, Windows Server 2016/2019/2022, Debian, Ubuntu, Fedora, Proxmox, RHEL, Rocky Linux (ядро Linux 3.10 и выше). Для настройки, управления и мониторинга служит фирменное ПО с веб-интерфейсом и CLI.

Источник изображений: HighPoint

Карта имеет однослотовое исполнение; для её установки требуется разъём PCIe 5.0 x16. Изделие оснащено радиатором и 80-мм вентилятором, который, по словам компании, обладает низким уровнем шума. Диапазон рабочих температур — от +5 до +55 °C. Заявленный показатель MTBF (средняя наработка на отказ) — 920 585 часов.

Карта расширения Rocket 7604A RAID AIC доступна для заказа по ориентировочной цене $1000. А за $900 можно приобрести вариант Rocket 1604A Switch AIC, который обладает аналогичными техническими характеристиками, но не содержит RAID-контроллера.

Компания InnoGrit, по сообщению ресурса Tom's Hardware, анонсировала твердотельные накопители N3X, которые будут предлагаться в форм-факторах U.2 и E3.S. Устройства рассматриваются в качестве альтернативы изделиям Intel Optane, производство которых было прекращено.

SSD серии InnoGrit N3X используют контроллер InnoGrit Tacoma IG5669 и чипы памяти Kioxia XL-Flash второго поколения, функционирующие в режиме SLC. Задействован интерфейс PCIe 5.0 x4 (NVMe 2.0). Названный контроллер построен на архитектуре RISC-V, а при его производстве применяется 12-нм технология TSMC FinFET.

Утверждается, что новые накопители обеспечивают скорость последовательного чтения информации до 14 000 Мбайт/с и скорость последовательной записи до 12 000 Мбайт/с. Показатель IOPS (операций ввода/вывода в секунду) достигает 3,5 млн при произвольном чтении и 700 тыс. при произвольной записи.

Одной из особенностей решений N3X являются небольшие задержки. При чтении этот показатель составляет менее 13 мкс, тогда как у обычных накопителей на основе памяти 3D TLC NAND величина варьируется от 50 до 100 мкс. Задержка при записи находится на уровне 4 мкс против 200–400 мкс для 3D TLC NAND. Таким образом, представленные устройства подходят для кеширования, ИИ-инференса, in-memory систем, аналитики в реальном времени и других задач, где задержка имеет критическое значение.

Источник изображения: InnoGrit

Ещё одним преимуществом устройств N3X является высочайшая долговечность. Накопители способны выдерживать до 50 полных перезаписей в сутки (DWPD) на протяжении пяти лет. Это значительно выше средних показателей корпоративных SSD на базе флеш-памяти NAND. Отмечается, что новинки отлично подходят для задач с интенсивными операциями записи, таких как транзакционные рабочие нагрузки и инференс.

Источник изображения: Tom's Hardware / Future

Накопители будут выпускаться в модификациях вместимостью 400 и 800 Гбайт, а также 1,6 и 3,2 Тбайт. Упомянута поддержка шифрования AES-256. Гарантированный объём записанной информации (показатель TBW) достигает 292 тыс. Тбайт.

Компания Kioxia анонсировала семейство SSD корпоративного класса CM9 с интерфейсом PCIe 5.0 (NVMe 2.0, NVMe-MI 1.2c). Изделия доступны в форм-факторах SFF и E3.S в двухпортовом исполнении: в первом случае вместимость достигает 61,44 Тбайт, во втором — 30,72 Тбайт.

Утверждается, что устройства серии CM9 — это первые твердотельные накопители, построенные на чипах 3D-флеш-памяти BiCS FLASH TLC 8-го поколения. Используется технология CBA (CMOS directly Bonded to Array), которая обеспечивает повышение энергоэффективности, производительности, плотности и стабильности по сравнению с решениями предыдущего поколения.

Заявленная скорость последовательного чтения информации достигает 14,8 Гбайт/с, скорость последовательной записи — 11 Гбайт/с. Показатель IOPS при произвольном чтении данных составляет до 3 400 000 (4 КиБ / QD512), при произвольной записи — до 800 000 (4 КиБ / QD32). Накопители способны выдерживать до 1 полной перезаписи в сутки (1 DWPD) при интенсивном чтении и до трёх перезаписей при смешанном использовании (3 DWPD).

Источник изображения: Kioxia

Kioxia отмечает, что SSD серии CM9 демонстрируют прирост производительности примерно на 65 % при произвольной записи, на 55 % при произвольном чтении и на 95 % при последовательной записи по сравнению с устройствами семейства CM7. Кроме того, достигается увеличение быстродействия на 1 Вт затрачиваемой энергии примерно на 55 % при последовательном чтении и на 75 % при последовательной записи.

Новые накопители рассчитаны на использование в дата-центрах, поддерживающих ресурсоёмкие рабочие нагрузки машинного обучения, ИИ и НРС. Пробные поставки устройств уже начались.